The following pages and posts are tagged with
| Title | Type | Excerpt |
|---|---|---|
| Explaining and Harnessing Adversarial Examples (ICLR2015) | Page | Adversarial Example関連の論文を全く読んでいなかったので，パンダが例として出てくる論文を眺めることにした． 読めていない箇所もかなりあるが，FGSMの概要は把握できたと思うのでメモとして残しておく． 概要 本論文では，損失関数の入力変数についての勾配を符号を利用する Fast Gradient Sign Method (FGSM)を提案している． また，FGSMの提案の過程で，単純な線形モデルであってもadversarial exampleを 引き起こすことが可能であることが説明されている． 線形モデルにおけるAdversarial Examples \begin{equation} \newcommand{\bfx}{\boldsymbol{x}} \newcommand{\bfw}{\boldsymbol{w}} \newcommand{\bfeta}{\boldsymbol{\eta}} \newcommand{\bftheta}{\boldsymbol{\theta}} \newcommand{\dataexp}{\mathbb{E}_{\bfx, y \sim p_{\mathrm{data}}}} \end{equation} まず，単純な線形モデルでadversarial exampleがどうやって引き起こされるか，について考える． 例えば，画像は基本的に1 channelに対して8bitで表現されるため，ダイナミックレンジの1 / 255 未満の変化は精度の問題から切り捨てられている（補足：センサが取りうる値の範囲がダイナミックレンジ）．ここで，精度によって切り捨てられるほど小さい摂動$\bfeta$を入力$\bfx$に加えたadversarial input$\tilde{\bfx} = \bfx + \bfeta$を考える．ただし$\bfeta$は 精度の問題で切り捨てられるほど十分に小さな値$\epsilon$に対して$||\bfeta||_{\infty} = \max{\bfeta} < \epsilon$とする．このとき重みベクトル$\bfw$との内積は \begin{align} \bfw^T \tilde{\bfx} = \bfw^T \bfx... |
| リプシッツ連続 (Lipschitz continuity) | Page | リプシッツ連続とは \begin{align} \exists m > 0, \forall x \in \mathbb{R}, \forall y \in \mathbb{R} \left[ |f(x) - f(y) | \leq m |x - y| \right] \end{align} |